即時快訊
數產署表揚13家友善電商企業推動安心網購 Perky榮獲MUSE國際設計雙銀獎,女性營養品牌累積六項國內外肯定 金門酒廠「一穀作契」100%本土契作好品質 獲得農業部農糧署國產農糧原料酒推薦 「公益同行・原社共好」 29家績優合作社齊聚華山 公彩成果展現就業與福利新動能 孕育兆美元輝達的傳奇美式餐廳 創辦紀念座位牌保留至今 美國屋頂太陽能發電量近十年暴增近五倍 全球運動AI市場名單出爐 日本企業掛零歐美科技巨頭強勢壟斷 創投看好AI降低門檻 一人微型創業成美國就業新趨勢 年末聚會前的輪廓焦慮?醫師 : 「看不出做過」成自然美感新趨勢 印度航太新創搶攻火箭引擎商機 獲利基訂單拚太空產業分工
圖/本報AI製圖(示意圖)
科技生活

·8 個月前·責任編輯
#AI安全#內容審核#語言模型#ditto--ai#人工智慧
圖/本報AI製圖(示意圖)
圖/本報AI製圖(示意圖)
商傳媒|責任編輯/綜合外電報導
摘要

AI內容安全領域有新進展,ditto--ai公司推出一款名為qwen3guard-gen-4b的40億參數AI安全模型。該模型能有效將AI內容分類為安全、不安全或具爭議性,並支援全球119種語言的即時審核,有助於內容平台、聊天應用程式與AI服務強化內容安全與合規性。

人工智慧(AI)安全與內容審核領域迎來新突破。新創公司 ditto--ai 近期推出一款名為「qwen3guard-gen-4b」的 AI 安全模型,該模型擁有 40 億參數,專為高效能內容分類設計,能將 AI 內容區分為「安全」、「不安全」或「具爭議性」三大類別。

這款 qwen3guard-gen-4b 模型具備支援全球 119 種語言的審核能力,可有效運用於多語系環境中。相較於現有大型替代方案,例如 Llama-Guard-3-8B,其較小的 40 億參數規模,能在維持強大分類效能的同時,實現更快的推論速度,對於需要即時內容審核的高流量系統而言,具備極高的實用性。

ditto--ai 表示,qwen3guard-gen-4b 模型採用獨特的雙輸入能力,不僅能審核使用者的指令(prompt),也能同時監控 AI 助理的回應(response)。透過此功能,模型能偵測內容是否觸發 AI 助理的拒絕模式,並提供詳細的內容分類資訊,確保人工智慧系統的安全性與合規性。

該模型應用範圍廣泛,可協助社群平台、聊天應用程式及 AI 服務提供商,在內容發布前進行篩選,以減少有害資訊的傳播。此外,企業可將其整合至客服聊天機器人,預先過濾不安全的指令,並監控模型產出的內容,有效維護服務品質與用戶安全。該模型亦可用於現有對話的稽核,或建立跨用戶互動的安全報告,對於提升 AI 應用的內容安全標準至關重要。


在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源